Muon-RT：复用教师轨迹的无动量 Muon 用于 LLM 自蒸馏
🧭 LLM 自蒸馏优化器内存优化
IIT Kanpur · Amazon
复用 EMA 教师-学生位移替代 Muon 动量缓冲，在自蒸馏微调中省显存并提升准确率
📌 工作参考价值（4 点）
- 如果业务中已在用自蒸馏/EMA teacher 做 LLM 对齐（SDFT/SDPO），可去掉 hidden weight 矩阵的 Muon 动量 buffer，直接复用 teacher-student 位移；在 Qwen2.5-7B 上平均准确率比 AdamW 高 2.6 点，同时持久显存省 42%，适合 7B 级线上微调。
- Muon-RT 保留 Newton-Schulz 正交化，但对 teacher 位移做去径向分量 + spectral normalization，再与当前梯度混合；这种“复用历史更新方向去噪”的思路可迁移到推荐模型的大 embedding/MLP 权重优化，尤其是 LoRA/全参微调受显存限制时。
- 相比 momentum Muon 平均提升 5.4 点、持久显存少 27%；在 Olmo-3-7B SDPO 上比 AdamW 提升 2.0 点，说明策略优化/RL 自蒸馏场景也能作为 AdamW 替代。
- 注意边界：收益依赖局部模型、正则与对齐假设，且主要针对 hidden weight 矩阵；建议先在小规模微调中验证内存与收敛，再在推荐/搜索 LLM 训练中推广。
高效推理训练不总损害 CoT 忠实度与可监控性
🧭 推理训练 · CoT 忠实度与监控性
School of Computer Science, University of Sheffield · AstraZeneca
系统评估三种长度压力训练方法，发现压缩 CoT 会降低忠实度但监控性较鲁棒
📌 工作参考价值（4 点）
- 在电商/搜索推荐 Agent 中，若为降低推理成本对 CoT 做长度压缩（如固定 token 预算或长度奖励），不要只看任务准确率；需补充评估 CoT 忠实度与模型一致性，否则可能引入“解释不可信”风险，影响事后归因和策略审计。
- 若 CoT 主要用于监控（例如检测输入扰动、prompt 注入或特征变化是否改变推荐结果），短 CoT 仍能保留较好的可监控性，可以继续将压缩后的 CoT 作为低成本的线上异常信号，而不必强依赖长推理。
- 方法借鉴：长度压力机制选择上，倾向使用组相对长度奖励而非全局固定预算，并在训练后同时报告忠实度和一致性指标；对于需要向用户展示推理过程或解释推荐理由的场景，应谨慎压缩，或对关键路径保留更长 CoT。
- 可在业务中用干预实验评估可监控性：改变用户历史、商品属性或上下文特征，观察压缩后的 CoT 是否仍能暴露输出变化，用于决定哪些链路可以启用短推理。
TACO：面向 LLM 微调的三值绝对最大列单稀疏优化器
🧭 LLM 全参微调内存优化器
University of Central Florida · Mohammed VI Polytechnic University
用每列最大梯度符号的稀疏更新替代 AdamW 状态，优化器状态降 174 倍，单卡 H100 可全参微调 30-32B 模型
📌 工作参考价值（4 点）
- 在需要全参微调 LLM 的业务（生成式推荐、Agent 策略模型、query/文案生成）中，可用 TACO 替代 AdamW/AdamW8bit，显著降低优化器状态和峰值显存；据论文 OPT-13B 上优化器状态 27.7GB→0.16GB，峰值显存 80.6GB→27.5GB。
- 适合继续微调已用 AdamW 预训练或 SFT 过的模型：TACO 保留一阶梯度更新几何，可减少切换优化器带来的掉点，而 Muon 在 AdamW-pretrained 模型上可能退化。
- 工程落地可按层拆分：对二维权重矩阵使用 TACO，对 embedding/head 等使用 AdamW 或低内存方案；只存储每列绝对值最大梯度的符号及少量低精度分量，避免动量和二阶矩。
- 单卡 80GB H100 能全参微调 30-32B 模型，降低硬件门槛，适合资源受限团队在推荐搜索场景中训练 LLM。
CAST：用于训练可靠长程工具调用智能体的批判感知监督框架
🧭 工具调用 Agent 可靠性训练 ★ 深度解读
Arizona State University · Cisco Research
将稀疏任务结果转化为动作级批判监督，训练小型 critic 与 policy，使 4B/8B 模型在重复运行可靠性上超过大模型
📌 工作参考价值（4 点）
- 在电商智能客服、订单退款等高危长程工具调用场景，可借鉴 CAST 的「离线标注 + 训练轻量 critic + 在线验证」模式：用多智能体框架从历史轨迹中生成动作级对错标签和理由，训练一个 4B/8B 的小 critic 替代 GPT-4 等大模型做实时动作验证，大幅降低 token 与延迟，同时提升校准度（误报率从 46.8% 降到 13.6%）。
- 构建训练数据时，利用 privileged information（如真实动作轨迹）让标注更可靠，但 critic 和 policy 在训练与推理时只接触 step-local context，这种不对称设计值得迁移到业务 guardrail 中：离线有更多信息可用，在线判断只能基于部分观测。
- 用 critic 验证后的成功轨迹（critique-enriched successful trajectories）对 policy 做 SFT，可以显著降低 policy 对反馈的抵抗率（约下降一半），让模型在推理时更愿意根据验证信号修正动作，从而提升重复运行一致性（pass^4）。
- 实验表明，经 CAST 训练的小模型在 pass^4 上超过 Qwen3-32B 和 GPT-OSS-120B，说明在可靠性优先的在线服务中，可以考虑用专门训练的 4B/8B 模型替代大模型，节省成本同时保证稳定性。
将黑盒机器学习蒸馏为小型自解释语言模型用于学习分析
🧭 模型蒸馏 · 可解释 AI
Department of Human Development, Teachers College Columbia University
提出两阶段微调管线，把黑盒估计器及其事后解释蒸馏进小型开源 LLM，实现离线个体级预测与自然语言解释
📌 工作参考价值（4 点）
- 蒸馏+事后解释作为 mentor 的架构可迁移：把现有黑盒排序/预测模型（如 GBDT、FM、DNN）及其 SHAP/LIME/注意力归因一起蒸馏到小型 LLM，业务侧就能用自然语言给商家/运营解释推荐或广告出价原因，同时保留个体级预估。
- faithfulness-first 评估思路值得借鉴：不只评测文本流畅度，而是校验叙述是否忠实于归因结果，是否引用虚假特征、编造数值。电商生成式推荐/解释场景可以照搬这种审计机制，当作文本质量门槛。
- 离线小模型部署降低隐私与成本压力：文中蒸馏后 2B LLM 可在笔记本离线运行，学生记录不出本机。对电商场景可类比：把用户行为序列、特征留在本地推理，避免调用云端大模型，既省成本又满足隐私合规。
- 不平衡决策的警示：严重类别不平衡下，文本解释虽然流畅但决策会塌缩到多数类。做推荐/广告中的解释型 Agent 时，需要单独监控决策分布，不能因为语言流畅就认为模型可靠。
超越故事中心数据的创意写作扩展：属性引导的体裁扩展
🧭 LLM 数据扩充 · 属性引导体裁生成
Chung-Ang University · LG AI Research
用属性引导解耦主题与体裁形式，构建多体裁创意写作数据提升 LLM 跨体裁能力
📌 工作参考价值（4 点）
- 可借鉴“主题种子 + 人工属性模板”的解耦思路：用电商搜索词、商品标题、用户评论等作为主题种子，人工维护不同文案体裁的结构/风格/格式属性（如 push 文案的紧迫感、广告标题长度、商品描述格式），批量生成多体裁营销文案训练数据，提升 LLM 在电商文案生成上的指令遵循。
- 质量过滤环节可结合业务规则与强模型打分：先按属性约束生成，再做过滤，能兼顾格式合规与文本质量，适合落地到商品文案、广告创意、消息推送等对格式和风格敏感的场景。
- 消融结论提示：对生成式推荐/文案 Agent，体裁多样性比单纯扩大单一类型样本规模更重要；可以先小规模控制体裁类别数做验证，再决定是否扩充，节省数据预算。
- 对 Agent 多轮任务，可把工具调用/输出 schema 视为“体裁属性”，通过人工属性库让强 LLM 生成符合格式的合成轨迹，用于训练或蒸馏领域 Agent。
AutoMem：将记忆管理作为可训练技能的自动化学习框架
🧭 Agent 记忆管理自动化 · 长程任务优化
Stanford University
通过双循环自动优化记忆结构与训练记忆熟练度，将记忆管理变为可学习技能，在长程游戏中实现2-4倍性能提升
📌 工作参考价值（4 点）
- 可迁移的记忆架构：将文件系统操作提升为一级记忆动作，与任务动作并列，让模型自行决定何时读写笔记。电商推荐Agent可借鉴此模式，维护用户长期偏好文件、会话上下文文件，实现跨会话记忆。
- 自动优化记忆提示与模式：手工设计记忆结构（提示、文件模式、动作词汇）在长程任务中不可行。可借鉴其外循环思路，用强LLM审查历史推荐交互的完整轨迹，自动迭代优化Agent的记忆结构，减少人工工作量。
- 利用成功轨迹训练记忆决策：内循环从大量episodes中提取好的记忆决策（何时记录偏好、何时检索历史），作为微调信号。在搜索/推荐Agent中，可挖掘用户满意会话，训练模型做出更好的记忆操作，提升长期用户体验。
- 记忆与任务分离的优化范式：仅优化记忆技能，不改动任务动作行为，就带来巨大提升。表明在复杂推荐系统中，可将记忆管理作为独立模块针对性优化，性价比高。
ZO-Act：基于单次激活信息低秩子空间的零阶微调
🧭 LLM 高效零阶微调 · 激活子空间
University at Albany, SUNY · IBM T. J. Watson Research Center
利用激活矩阵低秩基约束零阶优化扰动，大幅降低梯度估计方差，实现高效LLM微调
📌 工作参考价值（4 点）
- 在无法使用反向传播或内存极度受限的场景（如移动端、隐私保护环境）下，可将该方法用于微调电商搜索/推荐系统中的LLM组件，仅需前向传播损失评估。
- 低秩子空间构建方式与LoRA类似，但可结合零阶优化，直接适应量化LLM（如INT4），冻结量化权重优化低维系数，适合部署轻量级推荐模型。
- 仅前向计算显著降低显存占用，显式系数矩阵兼容Adam优化器，能更快收敛，可借鉴到需要频繁冷启动或增量更新的推荐Agent微调流程。
- 理论分析揭示的方差-偏差权衡可为选择扰动子空间维度提供指导：高激活秩层可分配更多秩，平衡近似误差与梯度估计质量，可扩展到推荐系统中多任务LLM的参数高效微调。